医疗AI：让人工智能不再神秘且更加可信

药明康德AI/编译（来源：IEEE Spectrum；作者：Eliza Strickland）

本文由药明康德团队整理，欢迎分享至朋友圈。转载请于文章开头注明“本文来源于药明康德AI微信公众号（ID：gh_06af933b93d6）”

对于人工智能技术来讲，医疗行业似乎是应用这一技术的理想场所。每一次医学检测、医生就诊和流程都被记录在案，越来越多的患者记录已经开始以电子格式进行存储。人工智能系统可以消化这些数据，并就如何提供更好和更划算的治疗方案提出建议。

许多研究人员正在构建这样的系统：医学和计算机科学期刊上充斥着描述实验性AI的文章，这些实验性AI可以解析记录、扫描图像并给出关于患者健康的诊断和预测结果。然而，这些AI系统很少能够在医院进行实际应用。

所以这其中的障碍究竟在哪里呢？这不是技术性的，匹兹堡大学医学院的医学研究员和医生Shinjini Kundu博士表示，这其中的障碍并不在技术，而是来自信任方面。“这项技术可能是非常有效的，但是如何让人类开始使用并依赖这项技术呢？” 

大多数的医疗AI系统的运作方式都像“黑匣子”一样，在输入外界的数据之后直接输出一个答案，但是得到答案的过程我们并不是完全了解。对于他们不完全理解的推测，医生通常倾向于持谨慎态度，这一点是可以理解的，因此，研究人员正在致力于使用各种技术来创建新的系统，将AI做出推测的过程展示在人们眼前。

AI为我们展现的画面

在最近召开的联合国“AI for Good”峰会上，Kundu博士阐述了她的研究：她正在研究那些能够分析医学图像的AI系统，并试图对AI得出的结果进行解释。她从AI系统中的机器学习算法开始着手，这些算法能够监测核磁共振成像（MRI）等医学图像，并从中发现医生感兴趣的模式。

在Kundu博士最新进行的实验中，她使用AI系统分析了膝关节的MRI图像，并预测其中的哪些有在三年内患上骨关节炎的可能性。然后，AI系统使用一种叫做“生成建模”的技术，创建了一个新的图像，这个新的MRI图像展示了一幅会在三年内患上骨关节炎的膝关节图像。

人工智能生成的图像显示，它是基于MRI图像中显示的软骨细微变化来做出相应的预测的，而这一点人类医生之前从未注意到。“这是这项研究中另一个非常重要的结果，”Kundu博士说道：“它让人类了解到，关节炎的早期发展过程可能是什么样子的。” 

▲AI如何为大众展现画面呢？（图片来源：RF123）

你从这些图像中看到了什么？

Rima Arnaout博士是加利福尼亚大学旧金山分校的助理教授。她训练了一个神经网络，从而对超声心动图进行分类，而这些超声图像对诊断心脏疾病至关重要。在《Digital Medicine》上她发表了一项研究：和人类心脏病专家相比，她所在研究团队开发的人工智能系统可以更准确地对不同角度低分辨率心脏图像进行分类。她计划利用这项技术和相关信息，来识别图像中的解剖结构，并对心脏疾病和缺陷进行诊断。

但是这样的诊断系统却不太可能被实际使用。Arnaout博士表示：“医生永远不会做出他们无法认同的诊断，并且说是电脑让他们这样做的。”因此，她使用了两种技术来阐释这个分类系统的运作原理。在遮挡实验中，她掩盖了部分测试图像，以了解这种变化如何改变了AI输出的结果；通过显著性映射，她使用原始图像来追踪神经网络输出的结果，从而试图发现原始图像中的哪些像素对结果的影响最大。

这两种技术都向我们展示出了，图像中的哪些位置对人工智能的预测结果影响最大。同时我们也很高兴的看到，这些图像中对人工智能预测结果影响最大的区域，也是人类专家认为最重要的部分。

在相关性之外

在美国华盛顿州Redmond市，微软研究院的首席研究员Rich Caruana博士几十年来一直致力于建立智能且易懂的机器学习模型。他开发出的AI系统使用来自医院的电子健康记录，来对患者的治疗结果进行预测。但他发现，即使是最高精度的模型也可能会隐藏着严重的缺陷。

为了论证这一点，Caruana博士引用了一项使用肺炎患者数据集进行的研究。在研究中，他训练了一个机器学习模型，以区分需入院接受治疗的高危患者，以及可以安全留在家中休养的风险较低患者。该模型发现，患有心脏病的人死于肺炎的可能性较小，并根据这一点把这些心脏病患者划入了低风险患者群体。

看起来AI得出的这个结论似乎非常离谱。针对这一点，Caruana博士解释说，那些被诊断出肺炎的心脏病患者治疗结果更好并不是因为他们面临的风险较低，而是因为他们通常在一出现呼吸问题的相关迹象时就立刻去了急诊室，因此能够得到迅速的诊断和治疗。“AI模型分析后发现的数据之间相关性是真实的，”Caruana博士说，“但是如果我们仅仅依靠它来指导医疗干预，我们实际上会对某些患者造成更大的伤害，甚至可能让他们面临死亡的威胁。” Caruana博士现在正在研究能够清楚显示变量之间关系的机器学习模型，从而能够判断该AI模型在统计学方面的准确性，以及其是否具有临床意义。

参考资料：

[1] Making Medical AI Trustworthy and Transparent

更多精彩文章：